LLM safety

prompt injection Ranking

ChatGPTを使ったサービスにおいて気軽にできるプロンプトインジェクション対策

ChatGPTを献立提案AIにして「プロンプトインジェクション攻撃」を仕掛けてみた

【ChatGPT】プロンプトインジェクションの「概要と対処法」まとめ

プロンプトインジェクションとは？ChatGPTのAPIなどAIサービスを開発で注意したい攻撃

Remember these? Wondering if there is an equivalent adversarial attack on LLMs. (Simple prompt injections is not it — the attack needs to be invisible to a human observer.)

GPTs のプロンプトリーキング対策

AILBREAK

Trust No AI: Prompt Injection Along The CIA Security Triad

A Survey of Recent Backdoor Attacks and Defenses in Large Language Models